面向智能手术室的语音交互多智能体系统：架构设计与关键技术
🧭 多智能体语音交互 · KV Cache 优化
Wuhan United Imaging Surgical Co., Ltd. (UIS)
用 LLM 多智能体实现手术室语音控制与报告生成，重点优化 KV Cache 前缀复用、流式解析并行执行与渐进式提示披露
📌 工作参考价值（4 点）
- KV Cache prefix warming 可直接用于 Agent 长 system prompt 或设备状态频繁变化场景：将稳定的前缀（角色定义、技能列表、历史上下文）缓存，每次请求只重算变化部分。对电商导购 Agent，用户切换商品详情或筛选条件时，不必重算整个对话前缀，可把首字延迟从几百毫秒降到几十毫秒。
- 流式 partial JSON 解析 + 提前并行执行是降低端到端时延的有效工程 trick：LLM 以流式输出任务数组时，不用等完整 JSON 结束，解析到单个完整任务对象就立即调度执行。对广告文案批量生成、多商品并行推荐解释、多工具调用编排，能带来约 30% 的时延下降。
- 渐进式技能提示披露适合工具多的 Agent 系统：按用户角色、可用设备/工具、当前阶段动态裁剪 system prompt，只保留当前上下文最相关的技能说明。电商场景可复用为：按用户等级、可用的推荐/营销工具、会话阶段动态注入工具 schema，避免上下文浪费，提升长会话下的指令跟随稳定性。
- 多智能体架构与设备管理层解耦，可参考其 skill registry、task planner、device manager 的分层设计，在推荐系统中把“用户意图理解”“策略编排”“召回/排序执行”拆成独立模块，便于管控和低延迟并行执行。
ORCH：用组织原则实现具身AI集体智能
🧭 多智能体组织设计 · 层级协作
Duke University, Department of Computer Science · Duke University, Department of Electrical and Computer Engineering · Duke University, Department of Mechanical Engineering and Materials Science
ORCH 将人类组织理论中的角色与层级协调引入具身多智能体，在50个异构智能体、25个野火任务上大幅超越四种基线框架
📌 工作参考价值（4 点）
- 在多 Agent 搜索/推荐 pipeline 中不要写死固定顺序；借鉴 ORCH 的 pooled + sequential 组合：多路召回、不同品类/人群画像等可并行子任务放入 pooled 组并发执行，召回→粗排→精排等有前置依赖的环节用 sequential 层级协调，降低整体时延。
- 用 LLM 自动生成任务特定的角色与层级，而不是手动设计固定多 Agent 拓扑；在复杂 query 或多目标广告投放中，可由 Planner 先分析意图与依赖关系，动态生成临时“角色-协调层级”，再分派给子 Agent。
- 层级组织适合长程任务：按“专门小组”封装并行子任务（选品、文案生成、关键词扩展、出价调整），用 coordinator 做阶段门控，在保持组内并发的同时控制阶段间有序切换，避免全局混乱。
- 性能不随 LLM 规模单调提升：工程上不必盲目上最大模型，可为不同子 Agent 分配不同规模模型，通过组织设计补偿个体能力，降低 token 成本与推理延迟。